Greenplum | 新一代 PB 级分布式 HTAP 数据库（附PPT、视频）
Editor's Note
The following article is from Pivotal研发中心 Author Ariel Duan
2019年Pivotal中国研发中心副总兼Greenplum中文社区发起人姚延栋受阿里云开发者社区邀请于钉钉进行技术直播演讲《基于PostgreSQL的PB级开源企业级分布式HTAP数据库》。本文由演讲内容整理而成。
演讲直播视频
今天和大家分享的标题是《新一代PB级分布式HTAP数据库》，我加了个副标题为：Greenplum能做什么？过去，我们做的分享大多是从产品的角度，分享Greenplum有哪些特性。后来接到一些反馈，很多听众都表示在听到这些特性后，更希望知道将这些特性综合起来可以对业务有哪些支撑。因此今天重点和大家分享Greenplum能做什么，并引出背后需要什么样的技术支撑。
Greenplum是个关系型数据库，支持完善的ACID，HTAP是这几年比较流行的方向，是指Transaction和Analytics混合处理在一个系统里。分布式是指一个集群有很多节点，每个节点处理一部分的任务，从而实现速度更快更高可用的处理。PB级是指Greenplum可支持的数据量，我们已经有大量的客户在生产集群里使用Greenplum支持PB级数据量。
接下来和大家主要讲一讲Greenplum能做什么。首先是数仓、OLAP、即席分析。这三个词很多时候指的是一回事。细扣的话各自也有不同的侧重。
数仓是一种数据库类型，用来做BI和复杂查询处理， 强调的是来自各种数据源的历史数据的分析，产生商业智能（BI） ；
OLAP是一组操作，例如pivot/slice/dice/drilling/cube 等。（https://stackoverflow.com/questions/18916682/data-warehouse-vs-olap-cube。） 强调的是处理 ；
即席分析：强调的是查询时ad-hoc的，不是预先设计好的 SQL 查询，强调需求和解决问题的动态性，不是静态需求 ；
口碑和优势并不是靠我们“王婆卖瓜自卖自夸”，而是来源于客户对产品的信赖和支持。这是 Gartner 2019年发布的报告。我们可以看到 Greenplum 在经典数仓领域排名第三，前两名是Teradata和Oracle，他们都经过长达40多年的发展，相比之下，Greenplum还处于青少年时期，发展更为快速。 此外在实时数仓领域，并列排名第4。取得这样的认可，需要很多方面的因素，除了技术，还有服务、支持、品牌等。但技术肯定是重要一环。接下来，我们来看看，从技术上，Greenplum是如何来解决数仓和 OLAP 问题的。
首先，我们来看一下 Greenplum 的核心架构。上图是一张典型的部署拓扑图。上面是Master，下面都是Segment，Master和Segment之间通过网络进行高效通讯，我们称为Interconnect。
Master：存储用户元数据，负责对整个集群的调度、监控和管理控制 Segment：存储用户数据，执行master分配的任务 Interconnect：实现数据在各个节点间的传输
每个节点只有 1/n 数据，速度快
N 个节点并行处理，速度快
数据均匀分布考虑的是不同节点之间数据分布的问题。每个节点上，Greenplum还支持分区技术，并支持多级分区。通过多级分区，可以将数据进一步在每个segment分开，底层会使用不同的文件保存不同的分区。核心目的还是尽量降低每次SQL处理要扫描的数据量。上图的例子中的查询，如果我们是按月做的分区，就可以只读2007年10月的数据，而不需要关心其他月份的数据。这样的话，磁盘IO会大幅降低，处理速度、性能也会有很大的提升。
Greenplum支持多模存储/多态存储。Greenplum可以对同一张表的不同分区采用不同的存储模式，常用的划分标准是根据时间划分分区。比如上图的例子中，最老的数据，也就是不常访问的数据可以使用外部表的模式，中间的数据可以使用列存储，频繁更新或者访问的数据可以用行存储。多态存储对用户透明。
数据有了分发和存储，也得支持查询。Greenplum研发团队于2011年自研的优化器——ORCA，是Greenplum开源的子项目，也是Apache的顶级项目。ORCA是基于 Cascade 架构，基于 Cost 模型的优化器。ORCA的主要用途是解决一些OLAP中存在的复杂的查询。ORCA可以很好的应对包括10+表join， 关联子查询， CTE， 分区动态裁剪等复杂查询。在这些场景下，ORCA查询速度比传统的优化器有几十倍到几百倍的性能提升。
有了优化器，接下来就要谈谈查询的执行。上图中有两张表：t1和t2，它们各有6条数据，分布键都是c1，如图所示均匀分布在三个节点上。查询 SELECT * FROM t1 JOIN t2 ON t1.c1 = t2.c1 的执行计划如上图右半部分所示，每个节点上单独执行JOIN并将JOIN结果发送给master。这种场景是Greenplum最擅长的场景之一。
除了上面介绍的核心技术，Greenplum还有很多其他的技术，对数据库的性能，稳定性、和高可用有很大的支撑，上图列出了其中的一部分。
接下来，我们来介绍一个AP密集型的案例。某大型银行，采用 Greenplum 作为数据处理的中枢，所有业务数据都经过 Greenplum 中枢集群的处理，处理后的结果分发给不同的上游集群。中枢集群数据量 PB 级，节点数达200个；上游业务 Greenplum 集群有二三十套。支撑了该银行的大量核心业务。之前该银行主流技术是 Teradata，现在使用了几十套Greenplum集群替换了之前的Teradata集群。
随着数据量增大，一个痛点出现：传统的 OLTP + OLAP + ETL 方式过于复杂，效率低，费用高。客户对混合负载的需求越来越大。这里混合负载和 HTAP 大体指一回事，但是也有些微差别：混合负载通常强调是大查询+小查询，通常只读为主；HTAP 则强调小查询不只是读，而且有大量的 Insert、Update和Delete。Greenplum 早期版本主要为 OLAP 场景而优化，随着客户需求越来越大，慢慢很多人开始使用 Greenplum 做混合负载。从客户反馈来看，大约有 30% 以上Greenplum用户使用 Greenplum 处理混合负载，而且呈现逐年增长趋势。从今年9月份发布的 Greenplum 6 开始，Greenplum 对 OLTP 业务处理能力大幅提升。
TPCB：4500 tps
SELECT：8万
INSERT：1.8万
Update：7000 tps
上图是社区的一位小伙伴在社区的帮助下作的一个Greenplum6和MySQL的JDBC insert测评，在优化后得到的上图的结果。Greenplum 6 可以承担越来越多的TP业务。
Greenplum性能提升归功于一系列OLTP优化技术，包括全局死锁检测、锁优化、事务优化、复制表、多模存储、灵活索引、OLTP友好的优化器、多个版本内核升级等。
由于有各种查询的存在，就可能存在资源竞争的情况。为了解决这个问题，我们引入了资源组，并在Greenplum 6中持续增强。资源组可以很好的进行资源管理，并具有上图的各大功能特性。
接下来我们来讲一个案例。很多企业会像上图中采用很复杂、并且成本很高的架构：用TP系统来支持事务型业务，用AP系统支持AP业务，再用ETL将数据从TP系统中导入进AP系统中。而通过Greenplum 6这样的HTAP数据库，一套数据库便可以同时支持AP和TP业务。Greenplum 从2019年9月份发布至今，全球已有20多家客户开始测试，并有数个客户开始应用于生产系统。
5版本时，我们发布了Greenplum Kafka Connector，在6版本中，也进行了大幅提升。GPKafka可以将用户导入Kafka的数据高效并行的导入Greenplum中。
这是一个世界顶级证券交易所的案例。在做POC时，客户要求每秒从Kafka导入100万数据到Greenplum，每秒提交一次。最终结果是Greenplum可以做到每秒300万条数据，数据量是9.8亿，平均时延是170毫秒。
Greenplum可以处理各种数据类型，包括结构化、JSON、XML这种半结构化数据和Text这种非结构化数据，还有地理信息数据等。除此之外，还可以做到in-databse 机器学习，图计算等。
数据融合也称数据虚拟化、数据联邦，指不用移动数据，可以分析远程数据源的数据。Greenplum的数据融合技术支持ORACLE、MySQL、PostgreSQL、Hadoop、HIVE、HBASE等。
Hackday 是Greenplum团队的传统活动：这一天可以“不干活”，选择你感兴趣的一个问题组织一个小团队搞一搞。上图列出了一次Hackday的题目。在Greenplum中可以用下图中的一条UDF来解决。
下图是一个做国家安全的大型服务提供商的案例。用户的地图界面中可以做一些OLAP操作，包括下钻、上卷等。在此案例中有文本数据、地理信息数据、和结构化数据。每天 5亿 数据，单表最大1000亿，用了一个满配的DCA一体机，单纯文本索引达11TB。同时有 200+ 用户访问，数据要求在1分钟之内进入系统。
大数据分析最近几年有一个新的发展趋势， 高级分析下沉。之前的技术是拉数据到分析应用节点，需要抽样和数据移动。为了解决这两个问题，避免数据移动，提高模型精度，机器学习开始下沉到数据库内实现。最早的工业实现之一是 Apache MADLib。MADLib是 Greenplum 2011年联合加州大学伯克利分校、威斯康星大学、布朗大学等一起合作的项目，目前已经成为 Apache 的顶级开源项目。下图是MADLib的架构。
下图是MADLib支持的一些函数。
2019年年初，我们开始进行一个新的尝试，用MADLib来支持AI 深度学习，在每个Segment上，通过MADLib架构支持Keras和TensorFlow，这样就可以使用挂在节点上的GPU的资源实现深度学习。
下面是一个跨国传媒和娱乐公司关于机器学习的案例。
采用Greenplum数据库内分析方案后，性能上达到了十倍的提升。
最后我们简单聊一下现代SQL vs 92年的SQL。下图详细说明了SQL特性、SQL标准和Greenplum对应的支持的版本。当把上面这些特性有效结合在一起的时候，可以实现的功能非常强大。
我们来看一个例子。
写出上图的解决方案，有很多方式。
接着我们考虑一下以下多种因素。然后再考虑下你的方案是否可以很好的支持这些情况。
但是如果用成熟的数据库，几行SQL便可以实现。并且不需要考虑上面提到的各种问题带来的挑战。
综上所述，Greenplum是一个成熟的、开源的企业级的HTAP数据库，且支持Apache协议，为全球来自各行各业的大量大型客户的生产系统支撑关键数据分析业务。数仓要求对大量数据进行处理，对应“Volume”；流数据要求对新产生的数据快速处理，对应“Velocity”；集成数据分析要求支持各种各样的数据类型，对应“Variety”。这也是大数据的3V，Greenplum是新一代大数据处理技术。和传统的Hadoop技术栈相比具有诸多优势，譬如性能更好、更简单易用、标准支持更好等。
目前很多数据中心将数据分析分为两类：数据仓库和大数据。数仓采用Greenplum已经非常流行，大数据部门也开始越来越多的采用Greenplum。这种新型的架构可以大大简化数据分析的复杂度，提高数据分析速度和时效性，避免在各种数据产品间频繁的搬动数据，降低运维人员的工作负载，提高知识共享度。节省成本且效率提升。
【推荐阅读】
数仓社区
如有收获，请划至底部，点击“在看”，谢谢！
资源下载
关注公众号：数据仓库与Python大数据 回复关键字获取哦
06，数仓经典书籍
07, python基础入门
中台，中台 PPT
体系，OneData体系PPT
实时数仓，FFA 实时数仓视频回顾
Kettle，Kettle视频
Kylin，Kylin视频
Flink，Flink资料
Python，零基础学Python教程视频
加群，添加iom1128 备注：数据，拉你入群
数仓社区
长按左侧二维码关注！
【感谢大家，希望一起走的更远】